由于经过验证的2D检测技术的适用性，大多数当前点云检测器都广泛采用了鸟类视图（BEV）。但是，现有方法通过简单地沿高度尺寸折叠的体素或点特征来获得BEV特征，从而导致3D空间信息的重丢失。为了减轻信息丢失，我们提出了一个基于多级特征降低降低策略的新颖点云检测网络，称为MDRNET。在MDRNET中，空间感知的维度降低（SDR）旨在在体素至BEV特征转换过程中动态关注对象的宝贵部分。此外，提出了多级空间残差（MSR），以融合BEV特征图中的多级空间信息。关于Nuscenes的广泛实验表明，该提出的方法的表现优于最新方法。该代码将在出版时提供。

来自单眼图像的3D对象检测是计算机视觉的具有挑战性且长期存在的问题。为了从不同的角度组合信息而没有麻烦的2D实例跟踪，最近的方法倾向于通过在空间中密集的常规3D网格进行采样，这是效率低下的多视图。在本文中，我们试图通过提出可学习的关键点采样方法来改善多视图特征聚合，该方法将伪表面点散布在3D空间中，以保持数据稀疏性。然后使用多视图几何约束和视觉特征增强的分散点来推断场景中的对象位置和形状。为了明确地弥补单帧和模型多视图几何形状的局限性，我们进一步提出了一个表面滤波器模块以抑制噪声。实验结果表明，就3D检测而言，我们的方法的性能明显优于以前的作品（在某些类别的扫描仪上改善了0.1 AP）。该代码将公开可用。

命名实体识别（NER）任务旨在识别属于人，位置，组织等预定语义类型的文本中的实体。平面实体的最新解决方案NER通常因捕获捕获基础文本中的细粒语义信息。现有的基于跨度的方法克服了这一限制，但是计算时间仍然是一个问题。在这项工作中，我们提出了一个基于跨度的新型NER框架，即全球指针（GP），该框架通过乘法注意机制来利用相对位置。最终目标是实现一个全球观点，以考虑开始和最终位置以预测实体。为此，我们设计了两个模块来识别给定实体的头部和尾部，以使训练和推理过程之间的不一致。此外，我们引入了一种新型的分类损失函数，以解决不平衡标签问题。在参数方面，我们引入了一种简单但有效的近似方法来减少训练参数。我们在各种基准数据集上广泛评估GP。我们的广泛实验表明，GP可以胜过现有的解决方案。此外，实验结果表明，与软马克斯和熵替代方案相比，引入的损失函数的功效。

在深度学习时代，损失功能决定了模型和算法可用的任务范围。为了支持深度学习在多标签分类（MLC）任务中的应用，我们建议在本文中ZLPR（基于零结合的log-sum-exp \＆成对级别）损失。与MLC的其他基于等级的损失相比，ZLPR可以治疗目标标签数量不确定的问题，在这种角度，这使其与MLC经常使用的其他两种策略同样能够，即二进制相关性（即二进制相关性）（ BR）和标签Powerset（LP）。此外，ZLPR考虑了标签之间的加成，这使其比BR方法更全面。就计算复杂性而言，ZLPR可以与BR方法竞争，因为其预测也与标签无关，这使得与LP方法相比，时间和内存所需的时间和内存少。我们的实验证明了ZLPR对多个基准数据集和多个评估指标的有效性。此外，我们提出了ZLPR的软版本和相应的KL-Diverengency计算方法，这使得可以应用一些正则化技巧，例如标签平滑，以增强模型的概括。

最近编码的位置已显示在变压器体系结构中有效。它为序列不同位置的元素之间的依赖性建模提供了宝贵的监督。在本文中，我们首先研究了各种方法，以将位置信息整合到基于变压器的语言模型的学习过程中。然后，我们提出了一种名为旋转位置嵌入（绳索）的新颖方法，以有效利用位置信息。具体而言，提议的绳索用旋转矩阵编码绝对位置，同时将显式相对位置依赖性在自我发项公式中。值得注意的是，绳索具有宝贵的特性，包括序列长度的灵活性，衰减的相互依赖性随着相对距离的增加以及将线性自我注意力配备相对位置编码的能力。最后，我们在各种长文本分类基准数据集上使用旋转位置嵌入（也称为Roformer）评估增强的变压器。我们的实验表明，它始终如一地克服了其替代方案。此外，我们提供了理论分析来解释一些实验结果。 Roformer已经集成到HuggingFace：\ url {https://huggingface.co/docs/transformers/model_doc/roformer}。

Recent advances on text-to-image generation have witnessed the rise of diffusion models which act as powerful generative models. Nevertheless, it is not trivial to exploit such latent variable models to capture the dependency among discrete words and meanwhile pursue complex visual-language alignment in image captioning. In this paper, we break the deeply rooted conventions in learning Transformer-based encoder-decoder, and propose a new diffusion model based paradigm tailored for image captioning, namely Semantic-Conditional Diffusion Networks (SCD-Net). Technically, for each input image, we first search the semantically relevant sentences via cross-modal retrieval model to convey the comprehensive semantic information. The rich semantics are further regarded as semantic prior to trigger the learning of Diffusion Transformer, which produces the output sentence in a diffusion process. In SCD-Net, multiple Diffusion Transformer structures are stacked to progressively strengthen the output sentence with better visional-language alignment and linguistical coherence in a cascaded manner. Furthermore, to stabilize the diffusion process, a new self-critical sequence training strategy is designed to guide the learning of SCD-Net with the knowledge of a standard autoregressive Transformer model. Extensive experiments on COCO dataset demonstrate the promising potential of using diffusion models in the challenging image captioning task. Source code is available at \url{https://github.com/YehLi/xmodaler/tree/master/configs/image_caption/scdnet}.

In this paper, we present ExtremeBERT, a toolkit for accelerating and customizing BERT pretraining. Our goal is to provide an easy-to-use BERT pretraining toolkit for the research community and industry. Thus, the pretraining of popular language models on customized datasets is affordable with limited resources. Experiments show that, to achieve the same or better GLUE scores, the time cost of our toolkit is over $6\times$ times less for BERT Base and $9\times$ times less for BERT Large when compared with the original BERT paper. The documentation and code are released at https://github.com/extreme-bert/extreme-bert under the Apache-2.0 license.

The field of geometric deep learning has had a profound impact on the development of innovative and powerful graph neural network architectures. Disciplines such as computer vision and computational biology have benefited significantly from such methodological advances, which has led to breakthroughs in scientific domains such as protein structure prediction and design. In this work, we introduce GCPNet, a new geometry-complete, SE(3)-equivariant graph neural network designed for 3D graph representation learning. We demonstrate the state-of-the-art utility and expressiveness of our method on six independent datasets designed for three distinct geometric tasks: protein-ligand binding affinity prediction, protein structure ranking, and Newtonian many-body systems modeling. Our results suggest that GCPNet is a powerful, general method for capturing complex geometric and physical interactions within 3D graphs for downstream prediction tasks. The source code, data, and instructions to train new models or reproduce our results are freely available on GitHub.

冷冻电子显微镜（Cryo-EM）已成为确定蛋白质结构，尤其是近年来大型蛋白质复合物和组件的结构的关键技术。Cryo-EM数据分析中的一个关键挑战是从冷冻EM密度图中自动重建精确的蛋白质结构。在这篇综述中，我们简要概述了从冷冻EM密度图构建蛋白质结构的各种深度学习方法，分析其影响，并讨论准备高质量数据集以培训深度学习模型的挑战。展望未来，需要开发更先进的深度学习模型，以有效地将冷冻EM数据与其他互补数据（例如蛋白质序列和Alphafold预测的结构）相结合，以进一步推进该领域。

最近的跟踪器采用变压器来组合或替换广泛使用的重新NET作为其新的骨干网络。尽管他们的跟踪器在常规场景中运行良好，但是他们只是将2D功能弄平为序列，以更好地匹配变压器。我们认为这些操作忽略了目标对象的空间先验，这可能仅导致次优结果。此外，许多作品表明，自我注意力实际上是一个低通滤波器，它与输入功能或键/查询无关。也就是说，它可能会抑制输入功能的高频组成部分，并保留甚至放大低频信息。为了解决这些问题，在本文中，我们提出了一个统一的空间频率变压器，该变压器同时建模高斯空间先验和高频强调（GPHA）。具体而言，高斯空间先验是使用双重多层感知器（MLP）生成的，并注入了通过将查询和自我注意的关键特征乘产生的相似性矩阵。输出将被馈入软磁层，然后分解为两个组件，即直接信号和高频信号。低通和高通的分支被重新缩放并组合以实现全通，因此，高频特征将在堆叠的自发层中得到很好的保护。我们进一步将空间频率变压器整合到暹罗跟踪框架中，并提出一种新颖的跟踪算法，称为SFTRANST。基于跨级融合的SwintransFormer被用作骨干，还使用多头交叉意见模块来增强搜索和模板功能之间的相互作用。输出将被馈入跟踪头以进行目标定位。短期和长期跟踪基准的广泛实验都证明了我们提出的框架的有效性。